Uma reportagem da NBC News revelou que a Meta foi forçada a remover alguns chatbots feitos com sua ferramenta de IA, incluindo uma de Hitler.
+ Confira os 3 lançamentos de celulares mais antecipados de 2025
+ Especialistas ressaltam que ouvir música alta pode prejudicar audição a longo prazo
A Meta originalmente lançou sua ferramenta de inteligência artificial para permitir a criação de personagens de IA que ficariam disponíveis para conversa no WhatsApp, Facebook e Instagram. No entanto, muitas pessoas violaram as regras da plataforma e criaram chatbots de Maomé, Jesus Cristo e até de Adolf Hitler.
Acontece que, de acordo com as políticas da Meta, os usuários não podem criar personagens de IA de personalidades da vida real, pessoas que morreram nos últimos 100 anos, figuras religiosas ou personagens fictícios protegidos por marcas registradas.
Apesar da Meta afirmar que verifica os personagens criados pelos usuários antes de autorizá-los na plataforma, chatbots de figuras como Taylor Swift, Donald Trump, Harry Potter, Jack Sparrow, Justin Bieber, Elon Musk e até Elsa, do filme Frozen, já tinham suas versões em IA no Instagram.
Além disso, pelo menos três contas foram criadas para Hitler. Em conversas trocadas com os usuários, um dos perfis de IA se retratou como um artista que lamentou o Holocausto. O bot ainda enviou imagens geradas por IA para falar sobre seu “passado turbulento na Alemanha nazista”.
Depois da denúncia da NBC News, a Meta retirou as contas do ar, e disse: “As IAs em questão que violam nossas políticas de estúdio de IA já foram removidas e estamos melhorando continuamente nossas medidas de detecção para evitar a criação e publicação de IAs que violam nossas políticas.”
“Os usuários também podem denunciar IAs que suspeitam que possam violar nossas regras e tomaremos as medidas apropriadas”, ainda afirmou a empresa de Mark Zuckerberg no comunicado.
Foto e vídeo: Pixabay. Este conteúdo foi criado com a ajuda da IA e revisado pela equipe editorial.
